ALGORITMOS, INTELIGENCIA DE MÁQUINAS, AGENTES Y JUICIO HUMANO
A inicios de septiembre de 2025, la revista Fortune publicó esta nota: “Eudia, una startup de inteligencia artificial con sede en Palo Alto, California, ofrece algo totalmente nuevo: el primer bufete de abogados del mundo potenciado por inteligencia artificial (IA). El director ejecutivo Omar Haroun, afirmó en un comunicado de prensa en el que anunciaba el lanzamiento de Eudia Counsel, al que calificó como “el primer bufete de abogados nativo de IA”. Según él, se creó para ayudar a las empresas a recuperar el control de sus conocimientos. La empresa ha luchado mucho entre bastidores para sacar a la luz este bufete de abogados, afirmó Haroun en una entrevista con Fortune en la Cumbre de Inteligencia Aumentada 2025 de Eudia en Nueva York.
Arizona es el único estado del país en el que no se exige que los bufetes de abogados sean propiedad de abogados, afirmó. Aun así, hay tecnicismos. Eudia no está constituida técnicamente como un bufete de abogados. En virtud del programa de Estructuras Empresariales Alterna tivas (ABS) de Arizona, está constituida como una empresa que es “proveedora de un bufete de abogados”.
Por otro lado, en junio de 2025, el Fondo Monetario Internacional publicó la nota: Inteligencia de máquina y juicio humano en la que indica: “Imagina una isla que alberga a millones de genios. Son expertos en todo lo que se puede hacer con una computadora. Nunca dejan de trabajar. Y lo hacen felizmente a cambio de salarios modestos. Ahora imagina las profundas preguntas que surgirían cuando se integraran en la economía global ¿Cómo afectaría su integración a los mercados, los salarios y la distribución del poder? Los genios podrían impulsar una prosperidad abundante, o una profunda inestabilidad, de pendiendo, al menos en parte, de las decisiones que tomemos el resto de nosotros. En una nueva era de prosperidad, la productividad y el crecimiento económico podrían dispararse y el bienestar social florecer.
Una fuerza laboral con una inteligencia única podría revolucionar industrias que van desde la atención médica hasta la educación y la tecnología. Las tareas de oficina podrían realizarse con una eficiencia impecable, lo que liberaría a las personas para dedicarse a actividades más significativas. El costo de muchos ser vicios disminuiría, lo que elevaría el nivel de vida. ¿Cómo sería una era de inestabilidad? Con los genios realizando tareas a una fracción del costo, los trabajadores del conocimiento y los profesionales podrían enfrentarse a un desempleo masivo. La erosión de los salarios y la seguridad laboral podría repercutir en todas las industrias, colapsando la clase media y profundizando la desigualdad. Unas pocas empresas o naciones que monopolizaran el acceso a los genios podrían monopolizar la riqueza y el poder de formas sin precedentes, marginando a las empresas más pequeñas y a las economías más débiles. Esto podría sofocar la innovación y alimentar las tensiones globales.”
Al respecto de los anteriores ejemplos, vale la pena reflexionar sobre los intentos de remplazar el juicio humano por el juicio algorítmico ofrecido por las herramientas de la IA. Cada vez son más los expertos que creen que podríamos estar a las puertas de un salto tecnológico de este tipo. En 2023, por ejemplo, Geoffrey Hinton, galardonado con el Premio Nobel por su trabajo pionero en IA, afirmó que la tecnología podría superar la inteligencia humana en un plazo de entre cinco y 20 años. Otros expertos creen que podría ocurrir antes.
Que una IA que eclipse la inteligencia humana conduzca a una mayor prosperidad o a una mayor inestabilidad dependerá probablemente de cómo afecte a la desigualdad. Desde la revolución informática de la dé cada de 1960, muchos economistas, entre ellos el premio Nobel de Economía 2024, Daron Acemoglu, han argumentado que los avances tecnológicos pueden exacerbar la desigualdad de ingresos al aumentar la demanda de trabajadores altamente cualificados y con experiencia, al tiempo que reducen la demanda de mano de obra poco calificada, un fe nómeno conocido como “sesgo de ha bilidades (skill bias)”.
La creciente integración de la IA en diversos ámbitos ha generado un profundo debate sobre la relación entre la inteligencia de las máquinas y el juicio humano. En este contexto, la responsabilidad de las instituciones académicas es no sólo proveer los recursos humanos que aplicarán o desarrollarán estas nuevas tecnologías, es fundamental también el estudiar y ofrecer marcos de referencia y acción para aprovechar las potencialidades, así como entender las limitaciones de la IA, especialmente en el contexto latinoamericano donde existe un riesgo de rezago frente a otras regiones globales.
Ante esto, se requiere adoptar una visión crítica y equilibrada de la innovación frente a la IA, evitan do tanto la tecno–filia desmedida como la tecno–fobia paralizante. Ya que la IA representa una ampliación cognitiva de las capacidades humanas, un cambio que difiere fundamentalmente de las anteriores revoluciones tecnológicas, las cuales ampliaban principalmente las capacidades físicas, el reflexionar sobre las implicaciones socioculturales y sociotécnicas que esta transformación conlleva, es una necesidad para educar y preparar a la sociedad para interactuar con tecnologías que modifican profundamente los procesos cognitivos humanos. Más aún, el desarrollo actual de la IA está dominado por corporaciones que impulsan estas tecnologías con fines financieros y de mercado, lo que plantea un desafío para la regulación, la ética, la gobernanza y la sustentabilidad global. El excesivo dominio corporativo limita la visión del bien común y amplía brechas tecnológicas.
RELACIÓN ENTRE INTELIGENCIA DE MÁQUINAS Y JUICIO HUMANO
En la actual coyuntura, se evidencia un interés por explorar cómo las máquinas no solo aumentan la capacidad humana, sino cómo se configuran como agentes que colaboran con los humanos en procesos de toma de decisiones. Esta colaboración, exige una reconversión laboral y social, en la que los humanos aprendan a trabajar con máquinas inteligentes y a desarrollar máquinas que aprendan a colaborar con ellos. Si bien la IA puede aumentar la capacidad cognitiva, no debe reemplazar el juicio humano, ya que existe un riesgo de de pendencia tecnológica y pérdida de autonomía crítica. Por ello, es necesario recono cer las limitaciones actuales de la IA, así como su complejidad y los sesgos algorítmicos inherentes, para construir visiones críticas que permitan un uso consciente y ético de estas tecnologías.
Sobre el juicio humano frente a las máquinas en el contexto de la IA se destacan las siguientes consideraciones:
1. Distinción entre simulación de resultados y procesos humanos:
Los sistemas de IA intentan simular los procesos mentales humanos, imitando oreplicando resultados. Esto
implica que la IA no “piensa” como un humano, sino que procesa información de manera diferente para llegar de una manera rápida y ágil a un mismo fin o función, lo que marca una clara diferencia en la naturaleza del juicio
humano versus el cálculo de las máquinas.
2. Importancia del juicio humano como autonomía crítica:
Frente a la creciente automatización y dependencia tecnológica, el juicio humano debe mantenerse central para evitar la pérdida de autonomía y la dependencia absoluta en
las máquinas. La IA debe ser una herramienta que complemente y potencie la capacidad humana, pero no la sustituya, preservando así la capacidad crítica y ética del ser humano.
3. Necesidad de construcciones críticas sobre sistemas de IA
Es urgente desarrollar visiones críticas que evidencien las verdaderas posibilidades, limitaciones y sesgos de la IA, de modo que el juicio humano pueda operar informado y consciente
de los factores que influyen en las decisiones asistidas por máquinas.
4. Reconocimiento de la complejidad y la resistencia de la IA:
La complejidad de los sistemas de IA y la resistencia a su aceptación y aplicación social requieren que el juicio humano sea sofisticado y
adaptativo para aprovechar las oportunidades que la IA ofrece sin caer en riesgos sociales o éticos.
Estos puntos representan una primera aproximación sobre la generación de un marco de referencia sobre el juicio humano frente a las máquinas, planteando un balance entre la potencia tecnológica y la preservación de la capacidad humana para decidir de manera autónoma, ética y crítica. En esta perspectiva se identifican áreas prioritarias de atención en función de su impacto social:
a. Transformación del trabajo con máquinas como agentes de aumento cognitivo:
La “nueva noralidad” será aprender a colaborar con máquinas inteligentes que potencian la capacidad cognitiva humana, y a desarrollar máquinas que aprendan a colaborar
con los humanos. Esto significa que tareas que antes dependían solo de humanos pasarán a depender en mucho de agentes tecnológicos, cambiando los perfiles laborales y la necesidad de reconversión de la fuerza laboral.
b. Ejemplos en la educación y generación de información:
Las herramientas de IA pueden simplificar tareas que solían llevar horas, como investigación, elaboración de contenidos, presentaciones y reportes, mostrando la reconfiguración de
actividades antes realizadas solo por humanos.
c. Cambio tecnológico como fenómeno profundo y social:
Históricamente, la revolución digital, donde tecnologías como internet y telefonía transformaron radicalmente actividades cotidianas y laborales, introdujeron al mismo tiempo,
influencia y profunda dependencia en el modus operandi social
d. Evolución histórica del trabajo humano y automatización:
Históricamente, la revolución digital, donde tecnologías como internet y telefonía transformaron radicalmente actividades cotidianas y laborales, introdujeron al mismo tiempo,
influencia y profunda dependencia en el modus operandi social.
En la transformación actual, tal como en revoluciones pasadas, como la revolución industrial y la era de la información, se perdieron trabajos manuales y se crearon nuevos puestos relacionados con la tecnología. Ahora el reto consiste engenerar empleos a un ritmo que equilibre el remplazo que la IA producirá.
En conclusión, la pérdida de habilidades humanas frente a la IA genera riesgos de dependencia tecnológica y la erosión de la autonomía crítica. Si bien la IA facilita tareas, puede generar que las personas dejen de ejercitar habilidades cognitivas esenciales para la toma de decisiones y el juicio crítico, afectando así la creatividad y el pensamiento reflexivo propio del juicio humano. Una excesiva tecno-dependencia puede convertir a las personas en “robots” que solo siguen instrucciones tecnológicas sin ejercer un juicio ético ni crítico propio, poniendo en riesgo la autonomía y capacidad humana de discernimiento.
Finalmente, preservar habilidades humanas frente a la IA implica un equilibrio de aprendizaje tecnológico, ética, colaboración hombre–máquina y educación crítica que mantenga la autonomía y desarrollo humano centrado en servicio a la sociedad como el núcleo de la transformación digital.